Classifier-Free Diffusion Guidance

解説

https://sander.ai/2022/05/26/guidance.html

著者はDeepMind勤務

2022

Classifier guidance is a recently introduced method to trade off mode coverage and sample fidelity in conditional diffusion models post training, in the same spirit as low temperature sampling or truncation in other types of generative models.

Classifier guidance combines the score estimate of a diffusion model with the gradient of an image classifier and thereby requires training an image classifier separate from the diffusion model.

Classifier guidanceは、これらを組み合わせる

拡散モデルのスコア推定値

画像分類器の勾配

従って、Diffusion Modelとは別に画像分類器を学習させる必要があります。

It also raises the question of whether guidance can be performed without a classifier.

分類器なしでガイダンスが行えるかどうかも問題となる

We show that guidance can be indeed performed by a pure generative model without such a classifier: in what we call classifier-free guidance,

分類器を用いない純粋な生成モデル（classifier-free guidance）によって、実際にガイダンスが実行できることを示す。

we jointly train a conditional and an unconditional diffusion model,

and we combine the resulting conditional and unconditional score estimates to attain a trade-off between sample quality and diversity similar to that obtained using classifier guidance.

classifier-free guidanceでは、条件付き拡散モデルと無条件拡散モデルを共同で学習する

得られた条件付き / 無条件のスコア推定値を組み合わせて、分類器ガイダンスを使った場合と同様のsample qualityとdiversityのトレードオフを達成することが可能